TraceForge：按学生模型家族风格生成推理轨迹的蒸馏方法
🧭 LLM 蒸馏 · 推理轨迹合成
Independent Researcher
提出 TraceForge，在仅有教师答案时合成学生家族原生推理轨迹用于蒸馏，代码任务提升显著
📌 工作参考价值（4 点）
- 黑盒教师 API 只给答案时，不要放弃 CoT 蒸馏：可训练一个本地生成器，用 (context, answer) 自动补写学生模型家族风格的推理轨迹，再用于 SFT 小模型；尤其适合电商 Agent 的工具调用轨迹、商品推荐理由、query 改写推理等场景。
- 训练生成器时先用自有模型家族真实 CoT 做 SFT，再引入 critic/reward model 做对抗训练或 best-of-N 筛选；工程上相当于给合成轨迹增加真实性过滤，能显著提升下游效果，成本可控。
- 保持 teacher answer 不变、只优化中间 reasoning trace 的思路值得复用：业务中可固定黑盒模型输出的最终标注/答案，把优化重点放在解释路径、中间步骤或工具调用序列，减少跨模型风格错配带来的性能损失。
- 评估时把 authenticity 与 correctness 分开：需要独立 judge 打分真实性，并同时看最终任务指标；避免只追求 CoT 看起来真实但实际无益。
LLM 能设计近最优运筹优化算法
🧭 LLM 算法设计 · 运筹优化
未微调的 frontier LLM 在库存、排队网络、品类优化上生成算法，匹配或超过现有专用方法
📌 工作参考价值（4 点）
- 在电商/广告中，品类优化（assortment）、库存分配、预算 pacing、实时请求路由等定义清晰的约束优化问题，可快速用 frontier LLM + Python sandbox 生成策略算法作为 baseline，再与手写规则或求解器对比；固定 compute budget 可控制线上可行性。
- 优先采用 Level 2 方式：让 LLM 只根据问题类描述和参数范围输出「参数→决策」的算法函数，而不是逐实例求解；这样得到的策略可直接部署到实时系统，并在未见参数上做离线评估。
- Prompt 无需复杂调优：简单描述问题、目标、约束和可用工具，LLM 即可写出可执行代码；这对快速原型验证、A/B 测试前的候选策略生成很实用。
- 注意：该方法适用于目标函数和约束都能明确写出的优化场景；对依赖隐式反馈或需要从数据中学习的推荐排序任务，LLM 生成算法可能只能解决局部优化子问题，仍需与 ML 模型结合。
面向交互式网页生成的 Rubric-to-Code 奖励归因强化学习
🧭 强化学习细粒度信用分配
Inclusion AI, Ant Group · Zhongnan University
将 rubric 级功能反馈转化为局部代码优化信号，替代 GRPO 的序列级统一 advantage，显著提升交互式网页生成成绩
📌 工作参考价值（4 点）
- 对电商详情页、活动页、推荐卡片等多组件生成任务，可用 rubric 并让评估器输出「哪个 span/组件负责该问题」的文本归因，再把归因对齐到 token/组件级 advantage，替代 GRPO 的全局 uniform advantage，提升 RL 训练信号粒度。
- 工程上构建分层 reward：先分离格式、语法、运行时、功能目标，避免不可执行样本污染功能学习；在广告创意/推荐文案生成中可拆成合规、语法、核心卖点、转化目标等层级。
- 若已有描述性评估（如 rubric 写明某功能缺失原因），不要只取总分；可把解析出的 DOM 片段、状态更新、事件处理等代码块与 rubric 关联，做细粒度 credit assignment，提高样本效率。
- 该方法依赖可执行/可静态分析的代码结构；在推荐/广告生成文案或 item 序列时，可替换为标题、卖点、CTA、图片选择等结构化组件，并做组件级归因。
面向竞技编程的多专家 LLM 接力系统 MARS
🧭 多智能体接力与专家检索
MIRAI · London Institute for Mathematical Sciences · AXXX
MARS 用主题专家接力+RAG 检索算法理论，在 CodeContests 以 3.3 倍更低成本逼近 CodeSIM
📌 工作参考价值（4 点）
- 在电商/广告 Agent 系统中，把通用 planner/coder/debugger 角色改成按业务域或环节划分的专家（如召回专家、创意生成专家、竞价策略专家），每个专家挂载领域知识库，用检索决定每次任务激活哪些专家。
- 采用 RAG 为专家注入领域理论或历史案例，而不是单纯依赖 LLM 通才能力；在推荐/搜索场景可检索历史成功策略、类目知识或用户画像模板。
- 引入 sandbox 验证环节：每轮让候选方案在业务仿真器或离线评估集上跑分，专家根据结果保留、修复或转交，类似代码沙箱换成广告投放模拟或推荐 A/B 估计器。
- 专家间用结构化 packet 传递候选方案、验证结果、错误信息和下一步期望，降低多 agent 沟通成本；最后设一个固定 infrastructure-fixer pass 统一输出格式，可借鉴到 agent 输出治理。
DecompRL：通过模块化代码生成解决更难问题
🧭 分解式问题求解 · 模块化代码生成
FAIR at Meta · Inria · École Normale Supérieure · CERMICS · École des Ponts ParisTech
将难题分解为独立子函数，训出可组合的模块化代码，用 CPU 组合爆炸替代 GPU 重采样
📌 工作参考价值（4 点）
- 复杂推荐 / Agent 任务可借鉴“分解—独立实现—组合”范式：将长流程或组合动作拆成原子模块，分别用 LLM 生成候选实现，再通过组合搜索提高成功率，同时减少高成本 LLM 调用。
- 生成式推荐中，将完整的 item semantic ID 或推荐文案拆成多个独立子部分生成，再灵活组合，可获得指数级候选多样性，且大部分组合验证可在 CPU 上完成。
- 训练 Agent 规划能力时，用 DecompRL 类似的 RL 目标鼓励模型自动学习“何时以及如何分解子目标”，可提升长远任务成功率。
- 线上重采样（pass@k）成本高昂时，可将一次性生成转换为“少量模块候选 + CPU 组合评估”模式，显著压缩 GPU token 消耗（论文中 ~50×），适合高流量推荐系统降本。
零资源语言LLM代码生成：评估与改进策略
🧭 LLM 适配零资源代码生成
针对零资源编程语言，通过权重差异迁移法在基础模型上注入指令跟随能力，实现低成本专用代码模型部署
📌 工作参考价值（4 点）
- 若业务中存在专有查询语言或领域特定语言（如内部配置DSL、搜索表达式），可以借鉴“基础模型继续预训练+权重差异迁移”的方式，低成本适配LLM，无需昂贵的指令微调
- 在对指令跟随要求高的场景（如Agent任务规划、推荐理由生成），避免直接在指令模型上做进一步预训练，以防损害其指令能力，而是采用先预训练再注入指令能力的两阶段策略
- 构建内部低资源语言基准时，可复用论文的基准构建思路：从有限代码库中提取函数签名、文档字符串和测试用例，自动化生成评测集
- 该方法模型与数据均轻量，适合资源受限的团队，可用于快速验证新语言或新领域的LLM生成效果
利用语言模型先验从观测中学习POMDP世界模型
🧭 LLM引导的POMDP世界模型归纳 ★ 深度解读
Max Planck Institute for Intelligent Systems · IRIIS · University of California, Santa Barbara · University of Tübingen · University of Oxford
LLM生成可执行POMDP代码，通过信念滤波与软距离似然评分，无需隐藏状态即可匹配有监督方法的样本效率
📌 工作参考价值（4 点）
- 在无法获取用户真实意图（隐藏状态）时，可用LLM生成候选的状态转移与观测模型代码，基于历史行为（点击/购买序列）的粒子滤波和软距离似然进行评分迭代，无需人工标注隐藏状态。
- 将LLM生成的确定性观测模型通过距离核软化，使任何观测都有非零似然，避免粒子滤波崩溃；这一技巧可直接用于离散观测（如商品ID、行为类别）的模型评估。
- 使用UCB选择父节点进行多轮候选修订，平衡探索与利用，可借鉴到自动化模型搜索或策略迭代的优化流程中。
- 以可执行代码形式输出世界模型，可审计、可复现，便于部署到在线规划（如用户状态推断与折扣策略），比纯LLM模拟更稳定、更廉价。